MARCUS TONETE DE ARAGÃO^[1]

(coautor)

RESUMO: A presente análise explora a intersecção entre tecnologia e Direito, focando especificamente na algoritmocracia e jurisdição algorítmica, fenômenos emergentes que veem algoritmos desempenhando papéis cruciais na tomada de decisões políticas e judiciais. Aborda-se a definição de algoritmocracia como um sistema onde algoritmos, baseados em grandes volumes de dados, influenciam decisões governamentais e políticas. A jurisdição algorítmica refere-se ao uso desses sistemas dentro do sistema jurídico, impactando a interpretação e aplicação das leis. O texto discute os benefícios, como a eficiência e a previsão de resultados judiciais, e os desafios significativos, incluindo vieses algorítmicos e a falta de transparência que podem comprometer a equidade das decisões. Destaca-se também a preocupação com a disparidade no acesso às tecnologias e os riscos de comprometimento da autonomia individual. A análise busca compreender os impactos éticos, a necessidade de regulamentação e as implicações dessas tecnologias no Direito, ressaltando a importância de abordagens éticas e responsáveis para integrar a inteligência artificial no sistema jurídico.

Palavras-chave: Algoritmocracia. Jurisdição algorítmica. Vieses algorítmicos. Inteligência Artificial. Regulação Legal.

ABSTRACT: This analysis explores the intersection between technology and Law, focusing specifically on algorithmocracy and algorithmic jurisdiction, emerging phenomena that see algorithms playing crucial roles in political and judicial decision-making. It addresses the definition of algorithmocracy as a system where algorithms, based on large volumes of data, influence governmental and political decisions. Algorithmic jurisdiction refers to the use of these systems within the legal system, impacting the interpretation and application of laws. The text discusses the benefits, such as efficiency and the prediction of judicial outcomes, and significant challenges, including algorithmic biases and the lack of transparency that can compromise the fairness of decisions. It also highlights concerns about the disparity in access to technologies and the risks of compromising individual autonomy. The analysis seeks to understand the ethical impacts, the need for regulation, and the implications of these technologies in Law, emphasizing the importance of ethical and responsible approaches to integrating artificial intelligence into the legal system.

Key Words: Algorithmocracy. Algorithmic Jurisdiction. Algorithmic Biases. Artificial Intelligence. Legal Regulation.

SUMÁRIO: 1. INTRODUÇÃO. 2. ALGORITMOCRACIA E JURISDIÇÃO ALGORÍTMICA: DEFINIÇÕES E CONTEXTO. 3. IMPACTO DOS ALGORITMOS NAS DECISÕES JUDICIAIS. 4. VIESES ALGORÍTMICOS E SUAS IMPLICAÇÕES. 5. DESAFIOS DA APLICAÇÃO E REGULAÇÃO DE ALGORITMOS NO SISTEMA JUDICIÁRIO. 6. CONCLUSÃO. REFERÊNCIAS BIBLIOGRÁFICAS.

1. INTRODUÇÃO

A interseção entre tecnologia e Direito tem produzido transformações profundas nas estruturas sociais e jurídicas contemporâneas. Um dos fenômenos emergentes nesse contexto é o da governança algorítmica^[2], onde algoritmos não apenas apoiam, mas, em alguns casos, substituem o julgamento humano em decisões contestáveis. Complementar a isso, a jurisdição algorítmica refere-se ao uso de algoritmos no processo de tomada de decisões judiciais e administrativas. A partir deste panorama, explora-se esses conceitos sob várias perspectivas, abordando suas definições, contexto, vieses, reveses, limitações e desafios éticos, transparência, responsabilidade, acesso à tecnologia, autonomia, entre outros.

A algoritmocracia pode ser definida como um sistema de governança onde os algoritmos desempenham um papel central na tomada de decisões políticas. Esses algoritmos são programações computacionais que processam grandes volumes de dados para identificar padrões e fazer previsões. Sua aplicação vai desde recomendações de conteúdo em redes sociais até decisões judiciais e políticas públicas. A jurisdição algorítmica, por sua vez, pode ser concebida na aplicação desses algoritmos dentro do sistema jurídico, afetando como as leis são interpretadas e aplicadas. O uso da inteligência artificial para analisar casos, sugerir decisões judiciais e até prever resultados são exemplos dessa prática.

Um dos maiores desafios enfrentados pela algoritmocracia e pela jurisdição algorítmica é o viés gerado através desta programação. Os algoritmos, por mais avançados que sejam, ainda dependem de dados fornecidos pelos humanos e estão sujeitos às limitações desses dados. Vieses podem se infiltrar através de dados históricos discriminatórios ou práticas de coleta de dados manipuladas, levando a resultados que perpetuam desigualdades sociais. Esses vieses não apenas comprometem a equidade das decisões algorítmicas, mas também podem erodir a confiança do público nas instituições que os utilizam ao redor do mundo. A efetivação de algoritmos nos sistemas legais tem gerado tanto avanços significativos quanto desafios notáveis. A análise comparativa de diferentes jurisdições que adotaram essa tecnologia permite uma avaliação mais clara de seus impactos, tanto positivos quanto negativos.

A consolidação desses sistemas na tomada de decisões jurídicas também levanta questões éticas significativas. A título exemplificativo, a transparência dos algoritmos é frequentemente limitada pela natureza proprietária das tecnologias e pela complexidade desses modelos, dificultando a compreensão de como as decisões são feitas. Isso coloca em questão a accountability, ou seja, a capacidade de responsabilizar os desenvolvedores e usuários de algoritmos pelas decisões tomadas.

A falta de transparência nos algoritmos desafia a noção de responsabilidade. Em um sistema judicial, é fundamental que as partes envolvidas compreendam os fundamentos das decisões que afetam suas vidas. Portanto, aumentar a transparência dos processos algorítmicos e garantir que os responsáveis possam ser identificados e responsabilizados são passos essenciais para a integração ética da tecnologia no Direito.

Outra consideração importante é o acesso desigual à tecnologia. A disparidade no acesso aos recursos tecnológicos pode levar a uma nova forma de desigualdade, onde indivíduos ou regiões menos equipadas são, de modo desvantajoso, julgadas ou representadas. Além disso, a autonomia do indivíduo que faz parte dos polos ativo e passivo, e até de magistrados, pode ser comprometida quando decisões importantes são simplesmente delegadas a algoritmos, especialmente se esses sistemas falham em capturar nuances humanas e contextuais.

2. ALGORITMOCRACIA E JURISDIÇÃO ALGORÍTMICA: DEFINIÇÕES E CONTEXTO

No contexto contemporâneo do direito e da tecnologia, dois conceitos têm emergido como fundamentais para entender as transformações no sistema jurídico: a algoritmocracia e a jurisdição algorítmica. Esses termos, embora modernos, encapsulam uma mudança paradigmática em como as decisões são feitas e como o poder é exercido através de sistemas automatizados. A partir disso, explora-se em detalhes esses conceitos, delineando suas definições, origens e o contexto em que estão inseridos.

Algoritmocracia refere-se a um sistema de governança onde sistemas automatizados desempenham um papel central na tomada de decisões. O termo é derivado da junção de algoritmo, que significa um conjunto de regras definidas em um processo de cálculo ou resolução de problemas, e cracia, que denota uma forma de governo. A adoção do conceito de sociedade algorítmica destaca uma mudança qualitativa em andamento, caracterizada pelo aumento significativo no uso da Inteligência Artificial e pela expansão dos processos de decisão automatizados, que muitas vezes ocorrem sem a devida accountability, tanto antes quanto depois de sua instalação. A influência desses mecanismos nas decisões políticas resulta na emergência de algoritmocracias, ou seja, na substituição dos mecanismos tradicionais dos Estados de Direito (MAGALHÃES, 2023).

O sistema da algoritmocracia é impulsionado pela crescente capacidade de processamento de dados e pelo desenvolvimento de técnicas avançadas de inteligência artificial, especialmente o aprendizado de máquina. Com o avanço da capacidade computacional e a disponibilidade de grandes conjuntos de dados, tornou-se possível melhorar significativamente o desempenho e a precisão em diversos domínios, desde o reconhecimento de imagem até a otimização de portfólios de investimento. O aprendizado de máquina, especificamente, é fundamental neste processo, pois permite que sistemas automatizados aprendam e tomem decisões baseadas em dados, transformando organizações em "empresas algorítmicas", onde as decisões são impulsionadas por insights e previsões baseadas em dados​ (NETO, BONACELLI e PACHECO, 2020).

Jurisdição algorítmica, por outro lado, é um conceito que se refere especificamente ao uso de algoritmos no âmbito do sistema jurídico (CHAI e LIMA, 2020). Esta prática envolve a utilização de sistemas baseados em IA para apoiar ou tomar decisões judiciais. Isso pode incluir desde a análise preditiva, que estima a probabilidade de certos desfechos em processos, até a automatização de decisões em casos de menor complexidade. O argumento a favor de tal prática é que ela pode aumentar a eficiência do sistema judiciário, reduzir custos, proteger direitos fundamentais, evitar discriminações e assegurar a qualidade e segurança dos dados processuais. (BELCHIOR, 2020). No entanto, a adoção de tais tecnologias traz consigo uma série de desafios e questionamentos. O principal deles é a preocupação com o viés algorítmico, onde preconceitos existentes nos dados utilizados para treinar esses sistemas podem levar a resultados discriminatórios ou injustos. Apesar de não serem inerentemente justos ou imparciais, os modelos computacionais refletem os preconceitos presentes nos dados de treinamento, os quais são consequência de uma sociedade preconceituosa (ROSSETTI e ANGELUCI, 2021).

Portanto, vê-se o contexto em que a algoritmocracia e a jurisdição algorítmica estão se desenvolvendo é marcado por uma rápida evolução tecnológica e por intensos debates sobre ética, privacidade, e os limites da automação. À medida que mais setores da sociedade passam a depender de sistemas automatizados, cresce a necessidade de compreender como esses sistemas funcionam, quais são seus benefícios e riscos, e como podem ser regulados de forma a preservar os direitos fundamentais e a justiça. Aqueles mecanismos representam mais do que simplesmente a aplicação de tecnologia avançada no governo e no direito. Elas são indicativas de uma possível reconfiguração do próprio tecido de como as decisões são tomadas na sociedade, requerendo uma análise cuidadosa para garantir que contribuam para um sistema mais justo e eficiente.

3. IMPACTO DOS ALGORITMOS NAS DECISÕES JUDICIAIS

À medida que se explora o crescente papel dos algoritmos nas decisões judiciais e de segurança pública, é essencial compreender como diferentes sistemas têm sido instalados para melhorar a eficiência e a eficácia dos processos judiciais e penitenciários. A partir disso, discute-se os impactos dos algoritmos nas decisões judiciais através de alguns exemplos ao redor do mundo que são parâmetros para ilustração acerca de como as tecnologias avançadas no cotidiano judicial e prisional refletem um movimento em direção a uma justiça mais ágil e adaptada às necessidades contemporâneas, ou não.

Na Europa, países como Portugal têm experimentado com sistemas como o SIJ, que auxilia na gestão de processos judiciais. Embora seu foco principal não seja a predição de decisões, facilita a organização e o acesso a informações relacionadas a casos, promovendo uma maior eficiência processual. A digitalização de processos tem permitido que decisões sejam tomadas de forma mais rápida, impactando positivamente a celeridade do sistema judicial. O Sistema de Informação Judiciária (SIJ) em Portugal tem desempenhado um papel significativo na modernização e eficiência da gestão de processos judiciais. Este sistema faz parte de uma série de medidas adotadas para otimizar a tramitação eletrónica dos processos judiciais em Portugal. As iniciativas incluem o aumento do limite de tamanho para submissões eletrônicas de peças processuais e a introdução de alertas eletrônicos para os mandatários judiciais, facilitando assim a comunicação e reduzindo a necessidade de deslocações desnecessárias^[3]​.

David Canter, um influente psicólogo investigativo, que está associado ao Centro de Psicologia Investigativa na Universidade de Liverpool, Reino Unido, analisa o MDS, que é uma técnica usada para entender melhor os padrões de comportamento, especialmente em estudos sobre o perfil de criminosos. Utilizando essa técnica, os pesquisadores podem testar a hipótese RADEX, que busca entender as estruturas de ações dentro dos crimes. Por exemplo, em estudos de casos de crimes como estupros e homicídios, a MDS mostrou que certas ações criminais tendem a ocorrer juntas, ajudando a diferenciar tipos de comportamento criminoso. Além disso, o estudo dessas ações ajuda a determinar quais características são mais relevantes para entender o infrator, o que é crucial para a polícia e pesquisadores na hora de montar perfis criminais. A análise MDS tem se mostrado uma ferramenta valiosa na área de psicologia forense e no estudo do comportamento criminoso (CANTER, 2000).

A plataforma Court Online: Evidence Management (CaseLines) proporciona uma abordagem digital integrada para que juízes e equipes jurídicas possam preparar, organizar, editar e exibir documentos e evidências com segurança e eficiência. Esta solução online facilita o acesso simultâneo às informações mais atualizadas por todas as partes autorizadas, promove a interação através de comentários e anotações compartilháveis e otimiza a apresentação de provas em audiências com ferramentas de navegação eficazes. Ela é utilizada predominantemente nas cortes de Gauteng Norte e Sul da África, em casos que exigem a apresentação digital de provas, como gerenciamento de casos judiciais, apelações em matéria civil e criminal, questões do tribunal comercial, entre outros^[4].

O acesso é feito por meio de um programa na nuvem acessível através de qualquer dispositivo com navegador de internet compatível com HTML5^[5], eliminando a necessidade de instalar softwares específicos. A segurança dos dados é garantida pelo uso de armazenamento na nuvem Azure^[6] de nível quatro da Microsoft e certificação ISO270001. O registro na plataforma é realizado online, onde o usuário preenche e submete um formulário, seguindo por uma verificação via e-mail. A plataforma é compatível com diversos formatos de arquivo, como PDF, JPEG e MP4, e oferece funcionalidades de paginação automática dos documentos carregados. O uso de Court Online: Evidence Management (CaseLines) é gratuito para profissionais do direito e o público em geral^[7].

A China é líder em várias áreas da tecnologia, incluindo o uso de inteligência artificial no sistema jurídico. O programa AI Xiao Zhi 3.0, lançado em 2019, inicialmente focava em disputas financeiras, mas agora também analisa materiais de casos e grava depoimentos. Outra plataforma, o Sistema de Previsão de Sentenças Inteligente Xiao Baogong, auxilia promotores e juízes em direito penal, sugerindo penalidades baseadas em análises de informações de casos anteriores. O tribunal da cidade de Hangzhou foi pioneiro ao integrar a IA no sistema legal chinês em 2019 com o programa Xiao Zhi 3.0. Este sistema facilitou o julgamento de dez pessoas que não pagaram empréstimos bancários, resolvendo todos os casos em apenas 30 minutos. Originalmente, Xiao Zhi 3.0 realizava apenas tarefas repetitivas, como anunciar procedimentos judiciais, mas agora pode analisar materiais de casos, verificar informações de bancos de dados e gravar depoimentos. Embora inicialmente usado principalmente em disputas financeiras simples, tecnologia similar agora também é usada em outros tipos de casos para examinar evidências e redigir vereditos (ARASA, 2020).

Há preocupações sobre a uniformidade das penalidades em diferentes regiões da China e questões éticas relacionadas à priorização de decisões de máquinas sobre decisões humanas, o que pode influenciar inconscientemente a tomada de decisão devido a vieses cognitivos. A confiabilidade das informações fornecidas pelos assistentes legais de IA também é debatida, com preocupações de que a automação possa perder nuances e levar a decisões incorretas. A variação na digitalização das regiões da China gera registros públicos incompletos, o que levanta questões sobre se o sistema legal de IA pode tomar decisões imparciais com base em dados fragmentados (ARASA, 2020).

A aplicação da Inteligência Artificial no Judiciário brasileiro tem como principal objetivo enfrentar o grande volume de processos pendentes, que, em 2020, alcançava 75,4 milhões de casos. Esta tecnologia promete aumentar a produtividade e melhorar a gestão dos tribunais. De acordo com um estudo coordenado pelo ministro Luis Felipe Salomão, do Superior Tribunal de Justiça (STJ), e realizado pelo Centro de Inovação, Administração e Pesquisa do Judiciário da Fundação Getúlio Vargas, cerca de metade dos tribunais brasileiros já finalizou ou está desenvolvendo projetos de IA (SOUZA, 2023).

Os benefícios esperados incluem a celeridade processual, otimização do atendimento ao público, e automação de tarefas, melhorando assim a alocação de recursos humanos para funções essenciais. Entretanto, o uso de IA também traz riscos, como a utilização de datasets viciados, a opacidade dos algoritmos, e a possibilidade de discriminação. Projetos notáveis incluem o Sócrates e o Victor no STJ e STF, respectivamente, que auxiliam na análise semântica e na identificação de temas relevantes de processos. No entanto, apesar dos avanços, o Brasil ainda enfrenta desafios na utilização de IA comparado a outros países, como os Estados Unidos. A experiência internacional e as recomendações de organizações como a Carta Ética Europeia são consideradas essenciais para orientar a evolução da IA no contexto brasileiro (SOUZA, 2023).

A partir desses exemplos, percebe-se que pesquisadores têm desenvolvido diversos modelos que podem analisar decisões e prever os resultados de casos futuros com base em padrões identificados. Essas simulações são particularmente úteis para estudar como diferentes variáveis podem influenciar as decisões judiciais, como a gravidade do crime, antecedentes do réu entre outras, de modo a se preocuparem também com a alocação de recursos judiciais, ajudando a simulação de diversos cenários para distribuição de recursos. Esses modelos podem ajudar administradores judiciais a tomarem decisões baseadas em dados, otimizando o funcionamento do sistema judicial.

A evolução constante da tecnologia sugere que o uso de algoritmos no sistema judicial continuará a crescer e se sofisticar. Pesquisas estão sendo desenvolvidas para criar algoritmos mais transparentes e menos sujeitos a vieses, utilizando técnicas de inteligência artificial explicável. Esses avanços prometem melhorar a aceitação e a confiabilidade das decisões automatizadas.

            A Inteligência Artificial Explicável (IA explicável) envolve sistemas que incluem métodos de explicação para que os usuários entendam os modelos e decisões tomadas pelo sistema. Um workshop importante sobre este tema ocorreu em Estocolmo, na Suécia, em 2018, onde pesquisadores discutiram como incorporar explicações em técnicas de aprendizado profundo, que geralmente são baseadas em modelos complexos que não são facilmente compreendidos pelos usuários. Além disso, o uso de IA para o bem social também tem sido uma área de foco. Workshops em Macao, China, em 2019, e em Montreal, Canadá, discutiram como a IA pode ajudar a resolver problemas sociais e os desafios éticos, legais e regulatórios associados ao desenvolvimento de sistemas de IA responsáveis. Esses eventos destacaram a importância de processos verificáveis e responsáveis e a governança justa do impacto da IA (SICHMAN, J. S. 2021).

No Reino Unido, a agência UK Research and Innovation apoiou a criação de centros de formação doutoral focados em IA, como o Centre for Doctoral Training in Safe & Trusted AI e o Centre for Doctoral Training in Accountable, Responsible and Transparent AI, que enfatizam a segurança, responsabilidade e transparência na IA. Também se discutiu os avanços e riscos associados à IA, incluindo falhas em sistemas, questões de cibersegurança, e os desafios de sistemas que precisam interpretar intenções humanas corretamente. Além disso, preocupações com os impactos socioeconômicos da IA foram ressaltadas, como a distribuição de empregos e os efeitos na economia. Esses aspectos sublinham a necessidade de garantir que os benefícios da IA sejam compartilhados de forma justa na sociedade (SICHMAN, J. S. 2021).

            Com isso, a integração de tecnologias de inteligência artificial nos sistemas judiciais e de segurança pública está transformando a maneira como esses setores operam, oferecendo uma série de melhorias na eficiência e na gestão dos processos. A utilização desses avanços tecnológicos não só acelera as decisões judiciais, como também proporciona ferramentas mais robustas para a análise de padrões de comportamento, o que é essencial no contexto da justiça criminal. Com a utilização desses sistemas, vê-se um esforço contínuo para alinhar a aplicação da lei às necessidades e desafios atuais da sociedade, enquanto se busca garantir que as práticas sejam conduzidas de maneira responsável e ética. Este progresso indica um movimento significativo em direção a um futuro onde a justiça é não apenas mais rápida, mas também mais acessível e alinhada com os princípios de equidade e transparência.

4. VIESES ALGORÍTMICOS E SUAS IMPLICAÇÕES

No mundo do Direito, a introdução da tecnologia algorítmica promete eficiência e precisão na análise de casos e dados jurídicos. No entanto, essa inovação também traz consigo desafios significativos, especialmente no que diz respeito aos vieses algorítmicos. Estes vieses podem distorcer os resultados fornecidos pelos algoritmos, levando a decisões injustas ou discriminatórias. Explora-se dois tipos comuns de vieses algorítmicos - viés de confirmação e viés de seleção - e discute-se as suas implicações na jurisdição algorítmica.

O viés de confirmação ocorre quando um algoritmo favorece informações que confirmam as premissas ou hipóteses já existentes dos seus criadores ou dos dados com os quais foi treinado. Na jurisdição algorítmica, isso pode resultar em decisões que reforçam estereótipos legais ou normas sociais preexistentes, sem considerar adequadamente as evidências contrárias. Destaca-se a ausência de uma definição explícita e consistente do termo viés algorítmico em estudos, com diferentes interpretações e uma abordagem teórica pouco delimitada.

Frequentemente, o viés algorítmico é equiparado ou associado à discriminação e à falta de justiça (fairness), implicando tanto em características intencionais quanto não intencionais que resultam em discriminação injusta de indivíduos ou grupos na sociedade, identificando-se quatro possíveis origens: 1) os dados de entrada (input) usados para alimentar a máquina; 2) a construção da ferramenta ou modelo; 3) a interpretação incorreta dos resultados (output) do algoritmo; e 4) fatores externos ao sistema. A construção do modelo é particularmente enfatizada como uma má fase onde o viés pode ser introduzido através da escolha de proxies^[8], definição de tipos de algoritmos e processos de categorização das variáveis^[9] (GOMES, ROBERTO e MENDONÇA, 2020).

O viés de seleção acontece quando os dados usados para treinar um algoritmo não são representativos de toda a população sobre a qual o algoritmo deverá operar. Na jurisdição algorítmica, isso pode resultar em sistemas que são precisos para certos grupos demográficos, mas falham miseravelmente para outros. Existem casos onde sistemas de inteligência artificial, ao serem treinados com dados históricos enviesados, acabam perpetuando preconceitos e discriminações existentes na sociedade. Este fenômeno é particularmente negativo em aplicações jurídicas, onde as decisões podem afetar significativamente os grupos demográficos representados de forma inadequada nos dados (BABO, 2020).

Um exemplo notável é o caso do sistema desenvolvido na Holanda, conforme aludido pelo Sorfy, conhecido como Systeem Risico Indicatie (SyRI). Este sistema foi projetado para ajudar no combate à fraude em benefícios sociais, utilizando algoritmos para analisar grandes volumes de dados pessoais e identificar potenciais fraudadores. No entanto, o SyRI enfrentou críticas significativas por parte de organizações de direitos civis e foi objeto de uma ação judicial. Os estudiosos argumentavam que o sistema era opaco e discriminatório, pois tendia a focar desproporcionalmente em bairros de baixa renda e populações minoritárias, baseando-se em perfis de risco derivados de dados históricos enviesados. Em 2020, um tribunal holandês determinou a interrupção do uso do SyRI, considerando que ele violava os direitos humanos, em particular o direito à privacidade, e reforçava estereótipos negativos, alimentando assim preconceitos sociais existentes.

A aplicação de algoritmos na jurisdição também pode enfrentar dificuldades de integração com os princípios e práticas do direito tradicional. Isso inclui o respeito aos precedentes legais, a adaptação das leis existentes para abordar novas tecnologias e a adequação dos procedimentos judiciais, dos mais simples aos mais complexos, para incorporar decisões algorítmicas. A exigência de fundamentação adequada é essencial para a legitimidade das decisões judiciais, permitindo transparência, controle social e o direito ao recurso. A fundamentação deve ser analítica, conforme descrito no art. 489, §1º, do Código de Processo Civil, e deve incluir a análise detalhada e específica dos fatos e do direito aplicável, evitando decisões genéricas que não atendam às necessidades do caso concreto. Este rigor é fundamental para que as decisões não sejam apenas reproduções de normas ou conceitos jurídicos indeterminados sem a devida aplicação ao caso em questão (SIQUEIRA, MORAIS e SANTOS, 2020).

Há limitações significativas que devem ser consideradas, especialmente em casos que envolvem cláusulas gerais, conceitos jurídicos indeterminados e constante atualização legislativa, onde a interpretação e aplicação pessoal do juiz são cruciais. A IA poderia ser usada para sugerir minutas de decisões, que ainda precisariam ser detalhadamente revisadas e complementadas pelo magistrado, garantindo que a fundamentação atenda às exigências legais e seja adequadamente personalizada para o caso. A importância da fundamentação não apenas como uma formalidade, mas como um meio de garantir a justiça e a correta aplicação da lei reflete sobre os riscos e as possibilidades que a tecnologia apresenta na jurisprudência. A utilização da IA deve ser vista com cautela, especialmente em áreas sensíveis como a jurisdição criminal, onde as decisões podem afetar significativamente os direitos fundamentais dos indivíduos (SIQUEIRA, MORAIS e SANTOS, 2020).

 De mais a mais, tem-se a possibilidade de automatização de rotinas que são utilizadas para digitalizar e organizar documentos, não apenas economizando tempo, mas também abordando um dos principais desafios do Judiciário brasileiro: a escassez de recursos humanos e a crescente dificuldade em contratar novos servidores. Essa tecnologia reduz significativamente os gargalos operacionais, permitindo uma gestão mais eficaz dos processos judiciais. Com a liberação das equipes de tarefas repetitivas, a inteligência artificial possibilita que juízes e outros operadores do direito dediquem-se a tarefas mais complexas e essenciais dos processos judiciais. Isso resulta em um fluxo processual mais ágil e eficiente, redefinindo os contornos da justiça para torná-la mais consistente e acessível. Dessa forma, espera-se que a justiça não apenas aumente sua eficiência, mas também melhore sua capacidade de atender às demandas da sociedade de maneira justa e equânime (MENDES, 2023).

A precisão e a transparência são desafios fundamentais no uso de inteligência artificial no processo decisório. Apesar do potencial transformador da IA, é crucial assegurar que suas decisões sejam compreensíveis e fundamentadas. A falta de sensibilidade humana na automatização pode ocasionar a perda significativa do contexto detalhado, que é crucial para uma interpretação justa e equilibrada de cada caso. A justiça exige mais do que simples aplicação de dados e lógica; envolve aspectos humanos, como compaixão e moralidade, que estão além das capacidades da inteligência artificial. Uma abordagem rígida e literal das leis pode restringir a flexibilidade necessária na aplicação judicial (MENDES, 2023).

Além de todas estas importantes questões, tem-se a questão da ética no uso destes sistemas. A Resolução CNJ nº 332/2020, emitida pelo Conselho Nacional de Justiça do Brasil, estabelece diretrizes para a contratação de soluções de inteligência artificial pelos órgãos do Judiciário. Esta resolução visa promover a inovação, eficiência e transparência nas atividades judiciais, garantindo que as soluções de IA adotadas respeitem os princípios de ética, segurança da informação e proteção de dados pessoais. Além disso, busca-se assegurar a acessibilidade e a inclusão nos serviços judiciais providos por tecnologia de inteligência artificial. Os órgãos do Judiciário devem assegurar que as tecnologias de IA sejam utilizadas de forma a não substituir a decisão humana nas questões judiciais. Outro ponto importante é a exigência de que tais tecnologias sejam constantemente avaliadas quanto à sua eficácia, segurança, e conformidade com os direitos fundamentais e garantias processuais. Isso inclui a verificação de possíveis vieses discriminatórios nos algoritmos, garantindo que as decisões automatizadas sejam justas e equitativas para todos os cidadãos.

Assim sendo, a integração de algoritmos na jurisdição exige uma vigilância constante para identificar e corrigir estes vieses algorítmicos. A falha em abordar esses vieses não apenas compromete a equidade e a justiça das decisões legais automatizadas, mas também pode erodir a confiança pública no sistema jurídico como um todo, sendo essencial que os desenvolvedores de algoritmos colaborem estreitamente com juristas e outros especialistas para garantir que os sistemas algorítmicos sejam tão imparciais, inclusivos e justos quanto possível.

5. DESAFIOS DA APLICAÇÃO E REGULAÇÃO DE ALGORITMOS NO SISTEMA JUDICIÁRIO

Observa-se uma revolução na forma como as decisões judiciais poderão ser tomadas através do uso de inteligência artificial, prometendo maior eficiência e precisão na administração da justiça. No entanto, esse avanço também traz consigo desafios éticos e morais significativos, especialmente no que se refere à possibilidade de perpetuação de preconceitos e discriminações por meio de algoritmos. Em um mundo onde a justiça precisa lidar com um volume crescente de casos, a IA apresenta-se como uma solução potencial para aumentar a eficácia do sistema judiciário. Entretanto, sua prática no contexto legal deve ser conduzida com cautela para garantir que os direitos fundamentais sejam respeitados e que a integridade do processo judicial seja mantida.

Conforme leciona Corrêa (2023), destaca-se a natureza da inteligência artificial como uma tecnologia baseada no reconhecimento de padrões, que, apesar de oferecer várias soluções e benefícios, carrega consigo riscos inerentes. Aponta-se para vantagens como a automatização de tarefas no Poder Judiciário, que libera servidores públicos para se dedicarem a funções mais complexas. Por outro lado, ressalta-se problemas como discriminação, ampliação do superencarceramento e enviesamento de algoritmos, com exemplos específicos do uso discriminatório em reconhecimento facial e algoritmos de plataformas digitais que podem perpetuar conteúdos discriminatórios. Devido a isso, a importância de manter decisões humanas no centro dos processos tecnológicos para mitigar esses riscos é essencial^[10].

A inteligência artificial é percebida como uma ferramenta para aumentar a eficiência do judiciário, ajudando a acelerar o processamento de casos e a reduzir a morosidade processual. Essa aplicação busca responder ao crescente volume de processos, que muitas vezes sobrecarrega o sistema judiciário. Porém, enquanto eles oferecem a promessa de maior rapidez e uniformidade nas decisões judiciais, também levantam preocupações significativas sobre a transparência e a justiça dos processos automatizados. Deve-se ter consciência acerca da importância inconteste a respeito da adequação dos marcos regulatórios existentes para lidar com as questões éticas e legais emergentes da utilização de IA pelo judiciário. Com toda esta movimentação, percebe-se que ainda há um grande trabalho a ser feito para garantir que o uso de tecnologias avançadas como a inteligência artificial esteja alinhado com os valores e princípios fundamentais do sistema legal, enfatizando a necessidade de uma legislação específica que regule essas práticas (SALDANHA, J. M. L., 2022).

A utilização de inteligência artificial no Poder Judiciário não elimina o risco de discriminação, podendo até reforçar estereótipos e preconceitos existentes. Dado o papel crucial do judiciário em garantir justiça e direitos fundamentais, a introdução de ferramentas de IA nesse contexto exige extrema cautela. Porém, há um risco significativo de que algoritmos discriminatórios influenciem negativamente as decisões judiciais, perpetuando injustiças e prejudicando os mais vulneráveis. Este potencial lesivo exige a observação de medidas rigorosas de supervisão e validação humana para garantir que o uso de IA seja responsável e ético, preservando a integridade e humanidade das decisões judiciais (CAMBI e AMARAL, 2023).

No Brasil, vários projetos de lei estão em tramitação para regular a aplicação de inteligência artificial (IA) nas decisões judiciais e em outros setores. Alguns dos principais projetos incluem: Projeto de Lei nº 21/2020^[11]: aprovado pela Câmara dos Deputados, este projeto cria um marco legal para o desenvolvimento e uso da IA pelo poder público, empresas e pessoas físicas, estabelecendo princípios, direitos, deveres e instrumentos de governança. O projeto enfatiza o respeito aos direitos humanos e aos valores democráticos, garantindo transparência sobre o uso e funcionamento da IA​; Projeto de Lei nº 2338/2023^[12]: este projeto, ainda em tramitação, propõe a criação de normas gerais para a adequação e uso responsável de sistemas de IA, enfocando a segurança, confiança e respeito aos direitos fundamentais. Ele aborda a responsabilidade, a classificação de riscos, a governança e a supervisão dos sistemas de IA; Relatório da Comissão de Juristas do Senado^[13]: Liderada pelo ministro Ricardo Villas Bôas Cueva, a comissão elaborou um relatório que propõe subsídios para a regulação da IA no Brasil.

Esses projetos e relatórios mostram um movimento robusto no Brasil para estabelecer uma regulamentação cuidadosa da IA, equilibrando inovação e proteção dos direitos dos cidadãos, especialmente no que diz respeito às decisões judiciais e outras aplicações críticas.

O CNJ tem sido proativo na regulamentação do uso de IA no Poder Judiciário. Em particular, a plataforma Sinapses foi criada para centralizar e estudar o uso de IA generativa na Justiça, possibilitando a colaboração e compartilhamento de modelos de IA desenvolvidos pelos tribunais. Além disso, o CNJ já realizou um levantamento significativo, identificando um aumento expressivo no número de projetos de IA, o que reflete uma integração crescente dessa tecnologia nos tribunais brasileiros^[14]​. Por outro lado, o CNMP está trabalhando para fomentar o desenvolvimento e uso seguro e responsável da IA no Ministério Público. Recentemente, conselheiros apresentaram uma proposta de recomendação para garantir que o uso de IA no Ministério Público observe princípios éticos e de segurança, incluindo a proteção de dados e a transparência^[15]​. Essas iniciativas são exemplos de como os órgãos reguladores no Brasil estão se esforçando para criar um ambiente controlado e ético para a adoção de tecnologias avançadas, como a IA, garantindo que seu uso esteja alinhado com os valores democráticos e os direitos humanos.

A crise judiciária é uma questão de excesso de litígios e morosidade na resolução de processos, e a tecnologia, especialmente a IA, pode ser uma solução viável para esses problemas. A aplicação destes programas no Judiciário é vista como uma forma de otimizar processos, reduzir custos e aumentar a eficiência na gestão dos casos, como o auxilio na tomada de decisões, filtragem de informações e até mesmo na realização de tarefas operacionais que normalmente consomem muito tempo humano. Discussões são feitas sobre o potencial da IA para processar grandes volumes de dados de forma rápida e precisa, possibilitando respostas mais ágeis dentro do sistema judiciário. Entretanto, há o lado negativo que deixa translúcido os riscos e desafios associados ao uso da IA, incluindo a possibilidade de viés nos algoritmos, a falta de transparência nas decisões automáticas e a necessidade de regulamentação apropriada para garantir que o uso da tecnologia esteja alinhado com os princípios éticos e jurídicos. É necessária uma reflexão sobre como a inteligência artificial pode transformar o Poder Judiciário, oferecer melhorias significativas em eficiência e custo, mas, também, exige-se cautela e regulamentação cuidadosa para evitar novos problemas decorrentes de sua instalação (BRITO e FERNANDES, 2020).

6. CONCLUSÃO

À medida que se avança para um futuro cada vez mais interligado com a tecnologia, a algoritmocracia e a jurisdição algorítmica emergem como conceitos cruciais na intersecção entre a tecnologia e o Direito. A promessa de eficiência, rapidez e imparcialidade por meio da inteligência artificial é tentadora; contudo, esses avanços tecnológicos trazem consigo desafios éticos, legais e sociais significativos que exigem uma abordagem crítica e baseada em evidências.

A algoritmocracia, definida como um sistema de governança onde os algoritmos desempenham um papel central na tomada de decisões políticas, apresenta uma mudança paradigmática no exercício do poder e na gestão das sociedades. Entretanto, esse poder computacional, que processa grandes volumes de dados para prever comportamentos e tomar decisões, pode também perpetuar vieses históricos e discriminatórios se os dados que os alimentam não forem cuidadosamente selecionados e tratados. Essa realidade impõe uma reflexão crítica sobre quem controla esses algoritmos e quais são os critérios usados em sua programação.

Na jurisdição algorítmica, o uso de sistemas baseados em IA para apoiar ou tomar decisões judiciais pode aumentar a eficiência do sistema judiciário, mas também levanta questões sobre acessibilidade, transparência, possibilidade de afetar a autonomia dos juristas, transparência e a justiça dos processos automatizados. A capacidade de entender como as decisões são tomadas é fundamental para a legitimidade do sistema judicial. A falta de transparência nos algoritmos desafia a noção de responsabilidade, onde é crucial que as partes envolvidas compreendam os fundamentos das decisões que afetam suas vidas. Além disso, o acesso desigual à tecnologia pode criar novas formas de desigualdade. Indivíduos e regiões menos equipados tecnologicamente podem encontrar-se em desvantagem, reforçando a necessidade de políticas que promovam um acesso mais equitativo à tecnologia. A integração ética da tecnologia no Direito exige uma vigilância constante para garantir que todos os cidadãos tenham os mesmos direitos e oportunidades na sociedade algorítmica.

A regulamentação desempenha um papel crucial neste contexto. É necessário desenvolver marcos regulatórios que garantam que os sistemas algorítmicos sejam justos, transparentes e responsáveis. Projetos de lei em tramitação no Brasil, como o Projeto de Lei nº 21/2020, são passos importantes nesse sentido, propondo normas para o desenvolvimento e uso responsável da IA, com foco na segurança, confiança e respeito aos direitos fundamentais. Além disso, é essencial que esses marcos regulatórios sejam acompanhados de mecanismos eficazes de fiscalização e avaliação, para assegurar que as tecnologias implementadas estejam alinhadas com os princípios éticos e com as normativas legais vigentes. Neste cenário, a educação e capacitação sobre o uso ético e responsável da inteligência artificial se tornam indispensáveis. Programas de educação continuada para profissionais do direito e da tecnologia são necessários para prepará-los para os desafios que a jurisdição algorítmica impõe. Esses programas deveriam não apenas focar nas habilidades técnicas, mas também nas implicações éticas e sociais da aplicação da IA no sistema jurídico.

Finalmente, é essencial que se continue a discutir e analisar as implicações da algoritmocracia e da jurisdição algorítmica, não apenas no contexto brasileiro, mas também em uma perspectiva global. A colaboração internacional e o compartilhamento de melhores práticas podem ajudar a moldar um futuro onde a tecnologia trabalha em prol da justiça e da igualdade. A algoritmocracia e a jurisdição algorítmica não devem ser vistas apenas como ferramentas tecnológicas, mas como parte de um debate mais amplo sobre o tipo de sociedade que queremos construir para as futuras gerações. Esse debate, enraizado em uma abordagem crítica e baseada em evidências, é vital para garantir que os avanços tecnológicos sejam usados para promover um sistema jurídico mais justo e uma governança mais eficaz.

REFERÊNCIAS BIBLIOGRÁFICAS

ARASA, D. Chinese Al Helps Make Legal Decisions. Inquirer.net. [s.l.]. 2023. Disponível em: https://technology.inquirer.net/120951/chinese-ai-facilitates-legal-decisions. Acesso em 19 de abril de 2024.

Audiência pública promove debate sobre inteligência artificial no Poder Judiciário. Assessoria de Comunicação da Corregedoria-Geral da Justiça de Mato Grosso.  Tribunal de Justiça de Mato Grosso, Cuiabá, 2024. Disponível em: <https://www.tjmt.jus.br/noticias/74651\>. Acesso em: 19 de abril de 2024.

BABO, G. S. S. Discriminação algorítmica: origens, conceitos e perspectivas regulatórias (parte 1). Direito, Tecnologia e Informação. 2020. Disponível em: https://www.dtibr.com/post/discrimina%C3%A7%C3%A3o-algor%C3%ADtmica-origens-conceitos-e-perspectivas-regulat%C3%B3rias-parte-1. Acesso em 18 de abril de 2024.

BELCHIOR, W. S. Recomendações para o uso de inteligência artificial no judiciário. [s.l.].  Migalhas. 2020. Disponível em: https://www.migalhas.com.br/depeso/330932/recomendacoes-para-o-uso-de-inteligencia-artificial-no-judiciario. Acesso em 18 de abril de 2024.

BRASIL. Ministério da Economia. Projeto de Lei sobre uso de inteligência artificial avança no Congresso. Disponível em: https://www.gov.br/economia/pt-br/assuntos/noticias/2021/setembro/projeto-de-lei-sobre-uso-de-inteligencia-artificial-avanca-no-congresso. Acesso em: 20 abr. 2024.

BRASIL. Senado Federal. Comissão conclui texto sobre regulação da inteligência artificial no Brasil. Disponível em: https://www12.senado.leg.br/noticias/materias/2022/12/06/comissao-conclui-texto-sobre-regulacao-da-inteligencia-artificial-no-brasil. Acesso em: 20 abr. 2024.

BRASIL. Senado Federal. Projeto de Lei nº 2338/2023. Estabelece normas gerais para o desenvolvimento, implementação e uso responsável de sistemas de inteligência artificial. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 20 abr. 2024.

BRITO, T. S. FERNANDES, R. S. Inteligência Artificial e a Crise do Poder Judiciário: Linhas Introdutórias sobre a Experiência Norte-Americana, Brasileira e sua Aplicação no Direito Brasileiro. Revista Acadêmica da Faculdade de Direito do Recife. ISSN: 2448-2307, v.91,n.2, p. 84-107 Set. 2020. ISSN 2448-2307.Disponível em: https://periodicos.ufpe.br/revistas/ACADEMICA/article/view/247757. Acesso em 19 de abril de 2024.

CAMBI, E. A. S.; AMARAL, M. E. T. P. T. Inteligência artificial no Poder Judiciário, discriminação algorítmica e direitos humanos-fundamentais. Suprema - Revista de Estudos Constitucionais, Distrito Federal, Brasil, v. 3, n. 2, p. 189–218, 2023. DOI: 10.53798/suprema.2023.v3.n2.a250. Disponível em: https://suprema.stf.jus.br/index.php/suprema/article/view/250. Acesso em: 19 abr. 2024.

CANTER, D. Offender profiling and criminal differentiation. Legal and Criminological Psychology. Liverpool. 5 (1). p. 23-46. ISSN: 1355-3259. 2000. Disponível em: https://eprints.hud.ac.uk/id/eprint/8637/1/canteroffender.pdf. Acesso em 19 de abril de 2024.

CHAI, C. G. LIMA, H. R. Jurisdição algorítmica: revolução 4.0 e impactos no acesso à justiça. [s.l.]. Congresso Brasileiro Interdisciplinar em Ciência e Tecnologia. Evento online. ago-set, 2020.

Compreendendo o viés algorítmico: tipos, causas e estudos. Sorfy. [s.l.]. [s.d.]. Disponível em: https://www.sorfy.com/compreendendo-o-vies-algoritmico.html. Acesso em 18 de abril de 2024.

Desafios e possibilidades com o uso da inteligência artificial no Direito. Saraiva Educação. [s.l.]. 2023. Disponível em: https://conteudo.saraivaeducacao.com.br/juridico/inteligencia-artificial-no-direito/. Acesso em 18 de abril de 2024.

GOGONI, R. O que é proxy e qual a diferença para VPN? Tecnoblog. 2020. Disponível em: https://tecnoblog.net/responde/o-que-e-proxy-e-qual-a-diferenca-para-a-vpn/. Acesso em 19 de abril de 2024.

GOMES, L.S. ROBERTO, E. MENDONÇA, J. Viés algorítmico - um balanço provisório. Revista Estudo Sociológico. Araraquara. v. 25. n. 48. p. 139-166. jan.-jun. 2020.

HOCH, P. A. Inteligência artificial e juiz-robô: os algoritmos na tomada de decisões pelo poder judiciário. Repositório Digital da Biblioteca da Unisinos. Rio Grande do Sul. 2022. Disponível em: http://repositorio.jesuita.org.br/handle/UNISINOS/12684. Acesso em 19 de abril de 2024.

MAGALHÃES, J. Democracia ou Algoritmocracia? Ensaio sobre a defesa dos direitos humanos na era digital. Conclusão das Letras. [s.l.]. 2023.

MASSENA, C. RODRIGUES, J. GALIARDI, R. Vamos falar de governança algorítmica? Associação Brasileira de Ciências de Dados (ABRACD). [s.l.]. 2022. Disponível em: https://abracd.org/vamos-falar-de-governanca-algoritmica/. Acesso em 18 de abril de 2024.

MENDES, C. Robôs no tribunal: o papel da inteligência artificial no judiciário. Conjur. 2023. Disponível em: https://www.conjur.com.br/2023-dez-15/robos-no-tribunal-papel-da-inteligencia-artificial-no-judiciario/. Acesso em 18 de abril de 2024.

NETO, V. J. S. BONACELLI, M. B. M. PACHECO, C. A. O sistema tecnológico digital: inteligência artificial, computação em nuvem e big data. Campinas. Revista Brasileira de Inovação. ISSN 2178-2822. N. 19, e0200024, p. 1-31, 2020.

O que é o Azure? MICROSOFT. [s.l.]. [s.d.]. Disponível em: https://azure.microsoft.com/pt-br/resources/cloud-computing-dictionary/what-is-azure. Acesso em 19 de abril de 2024.

Organização e funcionamento dos Tribunais Judiciais e acesso à Justiça. República Portuguesa. Portugal. [s.d.]. Disponível em: https://www.portugal.gov.pt/pt/gc21/area-de-governo/justica/iniciativas-e-medidas/gc21/outras-informacoes/justica/organizacao-e-funcionamento-dos-tribunais-judiciais-e-acesso-a-justica.aspx. Acesso em 19 de abril de 2024.

PEREIRA, G. O que é HTML5? Saiba quem criou, para que ser e mais curiosidades. [s.l.]. 2023. Disponível em: https://www.techtudo.com.br/listas/2023/06/o-que-e-html-5-edsoftwares.ghtml. Acesso em 19 de abril de 2024.

PINTO, H. A. Inteligência artificial judicial e os riscos de um excessivo pragmatismo. Meu Site Jurídico. 2023. Disponível em: https://meusitejuridico.editorajuspodivm.com.br/2023/08/15/inteligencia-artificial-judicial-e-os-riscos-de-um-excessivo-pragmatismo/. Acesso em 19 de abril de 2024.

Resolução Nº 332 de 21/08/2020. Conselho Nacional de Justiça (CNJ). 2020. Disponível em: https://atos.cnj.jus.br/atos/detalhar/3429. Acesso em 18 de abril de 2024.

ROSSETTI, R. ANGELUCI, A. Ética algorítmica: questões e desafios éticos do avanço tecnológico da sociedade da informação. Galáxia. São Paulo. núm. 46, e50301, 2021.

SICHMAN, J. S. Inteligência artificial e sociedade: avanços e riscos. [s.l.]. Inteligência Artificial. Estudos Avançados. 35 (101). jan-abr, 2021.

SIQUEIRA, D. P. MORAIS, F. S. SANTOS, M. F. Inteligência artificial e jurisdição: dever  analítico de fundamentação e os limites da  substituição dos humanos por algoritmos  no campo da tomada de decisão judicial. Estudos jurídicos e políticos. Universidade Federal de Santa Catarina. ISSN 2177-7055. Santa Catarina. n. 1. v. 43. 2022.

SOUZA, B. L. A inteligência artificial e o Poder Judiciário: o cenário brasileiro diante da nova agenda mundial. Migalhas. [s.l.]. 2023. Disponível em: https://www.migalhas.com.br/depeso/382372/a-inteligencia-artificial-e-o-poder-judiciario. Acesso em 19 de abril de 2024.

UNIVERSITY OF ANTWERP. SyRI. Disponível em: https://www.uantwerpen.be/en/projects/aitax/publications/syri/#:~:text=On%20the%2013th%20February%202020,dependent%20schemes%20based%20on%20risk. Acesso em: 18 abr. 2024.